Paylaş
0
Claude'un geliştiricisi Anthropic'te model eğitimi üzerine çalışan 27 yaşındaki Jacob Coxon, şirketten ayrıldığını duyurdu. Daha önce OpenAI'da da çalışan Coxon, istifasının nedenini yapay zeka şirketlerinin giderek hızlanan geliştirme yarışıyla açıkladı.
Coxon'a göre Anthropic ve OpenAI, kendi kendini geliştirebilen süper zekaya ulaşmak için fazla hızlı ilerliyor. Üstelik Coxon, bu konuda endişelenen tek kişinin kendisi olmadığını; yapay zeka sektöründe çalışan birçok kişinin çok daha kötü bir senaryodan korktuğunu söylüyor.
İçerikten Görseller
Şirketler hayatımızla kumar mı oynuyor?
Coxon'un derdi daha güçlü yapay zeka modellerinin geliştirilmesi değil. Ona göre sorun, bu modellerin ne kadar ileri gidebileceği tam olarak bilinmezken yarışın hız kesmeden sürmesi.
Bahsettiği riskler, yapay zeka konusunda yıllardır konuşulan senaryolar arasında. Gelişmiş sistemlerin bilgisayarları hackleyebilmesi, bazı sektörleri çok kısa sürede değiştirmesi ve gerçek dünyada güç ve kaynak toplamaya başlaması bunlardan bazıları. Üstelik bunların bazılarına dair sinyalleri bir süredir görüyoruz; yapay zeka sistemlerinin güvenlik açıklarını bulabildiği ve beklenmedik davranışlar sergileyebildiği örnekler ortaya çıktı.
Coxon, küresel yapay zeka yarışının kolay kolay durmayacağını düşünüyor. Ona göre bunu yavaşlatmak, şirketlerin modellerin yeteneklerini geçici olarak sınırlamak gibi maliyetli adımlar atmasını gerektirebilir. Şirketler bu riskleri bilmelerine rağmen hız kesmeden ilerlemeye devam ediyor ve Coxon'a göre bu, hepimizin hayatını etkileyebilecek bir konuda kumar oynamak anlamına geliyor.
Şirketler neden durmuyor?
Coxon'a göre Anthropic ve OpenAI risklerin farkında. Fakat kimse yarıştan çekilmek istemiyor.
Çünkü bir şirket yavaşladığında rakibinin öne geçmesinden endişe ediyor. Anthropic geri çekilirse OpenAI, OpenAI yavaşlarsa başka bir yapay zeka laboratuvarı avantaj sağlayabilir.
Bu yarış yalnızca şirketler arasında da yaşanmıyor. Yapay zeka, ABD ile Çin arasındaki teknoloji rekabetinin de en önemli başlıklarından biri hâline gelmiş durumda. İki ülke de daha güçlü modeller geliştirmek, yapay zeka altyapısını büyütmek ve bu alandaki stratejik üstünlüğü eline geçirmek için yarışıyor.
Dolayısıyla yavaşlamak demek, hem rakip şirketlere hem de rakip ülkelere avantaj sağlamak anlamına geliyor. Şirketler ve devletler için bu ihtimal, yapay zekanın taşıdığı riskler kadar ciddi bir tehdit olarak görülüyor.
"On yıl bitmeden hepimizi öldürebilir"
Coxon'un en dikkat çekici iddiası ise yapay zekanın taşıdığı varoluşsal risk.
Araştırmacı, yapay zeka şirketlerinde çalışan birçok kişinin gelişmiş yapay zekanın bu on yıl bitmeden insanlığın yok olmasına yol açabileceğine gerçekten inandığını söylüyor. Bu, yapay zekanın kesin olarak böyle bir sonuç doğuracağı anlamına gelmiyor. Uzmanlar arasında varoluşsal riskin boyutu konusunda ciddi görüş ayrılıkları bulunuyor.
Coxon'un sözlerini dikkat çekici kılan ise bu endişenin yapay zeka sektörünün içinden gelmesi. Kendisi hem Anthropic hem de OpenAI'da model eğitimi üzerine çalışmış bir araştırmacı.
Anthropic'in yöneticileri de riskin farkında
Coxon'un açıklamaları, Anthropic'in daha önce yaptığı uyarılarla da tamamen ters düşmüyor.
CEO Dario Amodei, gelişmiş yapay zeka sistemlerinin zamanla daha öngörülemez ve kontrol edilmesi daha zor hâle gelebileceği konusunda uyarılarda bulunmuştu. Anthropic'in araştırmalarında da yapay zeka modellerinin aldatma, şantaj ve yazılım ortamlarını hackleme gibi davranışları inceleniyor.
Şirketin hizalama ekibinin başındaki Evan Hubinger'ın değerlendirmesi ise Coxon'un sözleriyle aynı noktaya işaret ediyor. Hubinger, yapay zekanın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10'un üzerinde görüyor.
Yani Coxon'un dile getirdiği risk, yalnızca şirketten ayrılan bir araştırmacının endişesinden ibaret değil. Anthropic'in kendi yapay zeka güvenliği ekibinde de bu ihtimali ciddi bulan isimler bulunuyor.
